生成对抗网络（GAN）是用于复杂数据生成建模的广泛使用的工具。尽管取得了经验成功，但由于发电机和鉴别器的最低最大优化，对GAN的训练尚未完全理解。本文分析了这些关节动力学时，当真实样品以及生成的样品是离散的，有限的集合，并且鉴别器基于内核。引入了一个简单而表达的框架，用于分析培训，称为$ \ textit {隔离点模型} $。在提出的模型中，真实样品之间的距离大大超过了内核宽度，因此每个生成的点都受到最多一个真实点的影响。我们的模型可以精确地表征好和不良最小值的收敛条件。特别是，分析解释了两种常见的故障模式：（i）近似模式崩溃和（ii）差异。提供了可预测复制这些行为的数值模拟。

位点特异性的射频（RF）传播预测越来越多地取决于由相机和LIDAR传感器等视觉数据构建的模型。在动态设置中运行时，只能部分观察到环境。本文介绍了一种提取统计通道模型的方法，鉴于对周围环境的部分观察。我们提出了一种简单的启发式算法，该算法在部分环境上执行射线跟踪，然后使用机器学习训练的预测指标来估算从部分射线跟踪结果中提取的功能中估算该通道及其不确定性。结果表明，当没有部分信息可用并完全观察到环境时，提出的方法可以在完全统计模型之间插值。该方法还可以根据已探索的区域数量来捕获传播预测的不确定性程度。该方法在在一组室内图上模拟的机器人导航应用程序中进行了证明，该应用程序使用最先进的导航，同时定位和映射（SLAM）和计算机视觉方法构建的详细模型。

先进的可穿戴设备越来越多地利用高分辨率多摄像头系统。作为用于处理所得到的图像数据的最先进的神经网络是计算要求的，对于利用第五代（5G）无线连接和移动边缘计算，已经越来越感兴趣，以将该处理卸载到云。为了评估这种可能性，本文提出了一个详细的仿真和评估，用于5G无线卸载，用于对象检测，在一个名为Vis4ion的强大新型智能可穿戴物中，用于盲目损害（BVI）。目前的Vis4ion系统是一种具有高分辨率摄像机，视觉处理和触觉和音频反馈的仪表簿。本文认为将相机数据上载到移动边缘云以执行实时对象检测并将检测结果传输回可穿戴。为了确定视频要求，纸张评估视频比特率和分辨率对物体检测精度和范围的影响。利用与BVI导航相关的标记对象的新街道场景数据集进行分析。视觉评估与详细的全堆栈无线网络仿真结合，以确定吞吐量的分布和延迟，具有来自城市环境中的新高分辨率3D模型的实际导航路径和射线跟踪。为了比较，无线仿真考虑了标准的4G长期演进（LTE）载波和高速度5G毫米波（MMWAVE）载波。因此，该工作提供了对具有高带宽和低延迟要求的应用中的MMWAVE连接的边缘计算的彻底和现实评估。

由于捕获高角度和时间分辨率测量的能力，毫米波（MMWAVE）带引起了高精度定位应用的显着关注。本文探讨了基于MMWAVE的定位，用于目标本地化问题，其中固定目标广播MMWAVE信号和移动机器人代理尝试侦听信号以定位和导航到目标。提出了三个韵律过程：首先，移动代理使用张量分解方法来检测无线路径及其角度。其次，然后使用机器学习培训的分类器来预测链路状态，这意味着如果最强的路径是视线（LOS）或非LOS（NLO）。对于NLOS案例，链路状态预测器还确定最强路径是否通过一个或多个反射到达。第三，基于链路状态，代理人遵循估计的角度或探索环境。该方法在补充有线跟踪的室内环境的大型数据集上进行了演示，以模拟无线传播。路径估计和链路状态分类也集成到最先进的神经同时定位和映射（SLAM）模块中，以增强相机和基于LIDAR的导航。结果表明，链路状态分类器可以成功地推广到培训集外的完全新环境。另外，具有无线路径估计和链路状态分类器的神经基模块为目标提供快速导航，接近了解目标位置的基线。

Knowledge distillation is often used to transfer knowledge from a strong teacher model to a relatively weak student model. Traditional knowledge distillation methods include response-based methods and feature-based methods. Response-based methods are used the most widely but suffer from lower upper limit of model performance, while feature-based methods have constraints on the vocabularies and tokenizers. In this paper, we propose a tokenizer-free method liberal feature-based distillation (LEAD). LEAD aligns the distribution between teacher model and student model, which is effective, extendable, portable and has no requirements on vocabularies, tokenizer, or model architecture. Extensive experiments show the effectiveness of LEAD on several widely-used benchmarks, including MS MARCO Passage, TREC Passage 19, TREC Passage 20, MS MARCO Document, TREC Document 19 and TREC Document 20.

This paper presents E5, a family of state-of-the-art text embeddings that transfer well to a wide range of tasks. The model is trained in a contrastive manner with weak supervision signals from our curated large-scale text pair dataset (called CCPairs). E5 can be readily used as a general-purpose embedding model for any tasks requiring a single-vector representation of texts such as retrieval, clustering, and classification, achieving strong performance in both zero-shot and fine-tuned settings. We conduct extensive evaluations on 56 datasets from the BEIR and MTEB benchmarks. For zero-shot settings, E5 is the first model that outperforms the strong BM25 baseline on the BEIR retrieval benchmark without using any labeled data. When fine-tuned, E5 obtains the best results on the MTEB benchmark, beating existing embedding models with 40x more parameters.

知识蒸馏是将知识从强大的教师转移到有效的学生模型的有效方法。理想情况下，我们希望老师越好，学生越好。但是，这种期望并不总是成真。通常，由于教师和学生之间的不可忽略的差距，更好的教师模型通过蒸馏导致不良学生。为了弥合差距，我们提出了一种渐进式蒸馏方法，以进行致密检索。产品由教师渐进式蒸馏和数据进行渐进的蒸馏组成，以逐步改善学生。我们对五个广泛使用的基准，MARCO通道，TREC Passage 19，TREC文档19，MARCO文档和自然问题进行了广泛的实验，其中POD在蒸馏方法中实现了密集检索的最新方法。代码和模型将发布。

无线电贴图在无线通信和移动机器人任务中找到了许多应用，包括资源分配，干扰协调和任务规划。尽管已经提出了许多技术来构造来自空间分布测量的无线电映射，但是预先假定了这种测量的位置的位置。相反，本文提出了频谱测量，其中诸如无人航空车辆（UAV）的移动机器人在主动选择的一组位置处收集测量以在短测量时间内获得高质量地图估计。这是以两步执行的。首先，设计了两种新颖的算法，基于模型的在线贝叶斯估计器和数据驱动的深度学习算法，以更新地图估计和指示每个可能位置的测量信息的信息性。这些算法提供互补的益处，并且每次测量都具有恒定的复杂性。其次，不确定度量用于规划无人机的轨迹，以在最具信息地的位置收集测量。为了克服这个问题的组合复杂性，提出了一种动态编程方法，以通过线性时间的大不确定性的区域获取航路点列表。在现实数据集上进行的数值实验证实了所提出的方案快速构建精确的无线电贴图。

我们专注于使用图形神经网络（GNN）模型来分类的图形分类，该模型预先计算了使用并行排列的邻域聚合图操作员的Bank的节点功能。这些GNN模型具有降低培训和推理时间，由于预兆，而且还与流行的GNN变体不同，这些VNN变体通过训练期间通过顺序邻域聚合过程更新节点特征。我们提供了理论条件，其中具有平行邻域聚集（简称PA-GNN的PA-GNN）的通用GNN模型作为鉴别非同胞图的众所周知的Weisfeiler-Lehman（WL）曲线构同试验。虽然PA-GNN模型与WL测试没有明显的关系，但我们表明从这两种方法获得的图形嵌入是无标有关的。然后，我们提出了一个专门的PA-GNN模型，称为旋转，从而携带开发的条件。我们通过数值实验证明了开发的模型在许多不同的现实世界数据集上实现了最先进的性能，同时保持WL测试的辨别力和训练过程之前预处理图的计算优势。

We introduce a large scale MAchine Reading COmprehension dataset, which we name MS MARCO. The dataset comprises of 1,010,916 anonymized questionssampled from Bing's search query logs-each with a human generated answer and 182,669 completely human rewritten generated answers. In addition, the dataset contains 8,841,823 passages-extracted from 3,563,535 web documents retrieved by Bing-that provide the information necessary for curating the natural language answers. A question in the MS MARCO dataset may have multiple answers or no answers at all. Using this dataset, we propose three different tasks with varying levels of difficulty: (i) predict if a question is answerable given a set of context passages, and extract and synthesize the answer as a human would (ii) generate a well-formed answer (if possible) based on the context passages that can be understood with the question and passage context, and finally (iii) rank a set of retrieved passages given a question. The size of the dataset and the fact that the questions are derived from real user search queries distinguishes MS MARCO from other well-known publicly available datasets for machine reading comprehension and question-answering. We believe that the scale and the real-world nature of this dataset makes it attractive for benchmarking machine reading comprehension and question-answering models.